Foto gemaakt door Bas de Meijer - SetupMerijn van Moll & Ruben van de Ven voor NSvP & Setup
Hoewel we tegenwoordig steeds meer taken en processen delegeren en automatiseren, ontstaan er ook nieuwe werkvormen voor de mens. Met de opkomst van diensten als Amazon’s Mechanical Turk en Coliseo Management’s Anti-Captcha worden specifieke onderdelen van automatische processen uitbesteed aan menselijke werkers. Deze Human Intelligence Tasks zijn singulaire opdrachten die een machine niet kan uitvoeren, bijvoorbeeld het overtypen van ingescande kassabon of het invullen van een Captcha code. Het is dankzij deze systemen voor machines mogelijk geworden om selectief taken aan de mens te delegeren. En vanwege de manier waarop deze structuren ontworpen zijn, blijft deze menselijke arbeidersklasse grotendeels onzichtbaar. Het is mogelijk geworden om een feedback-loop tussen mens en machine te herkennen op het moment dat een geautomatiseerd proces een opdracht delegeert aan een menselijke werker en het resultaat hiervan als basis neemt voor een volgende iteratie. Door deze feedback-loop zichtbaar te maken onstaat er een ritueel tussen mens en machine waarbij de geest van de werker telkens opnieuw wordt opgeroepen.
Foto gemaakt door Bas de Meijer - Setup
Startpunt van Guest Worker was om na te denken over het toenemende gebruik van AI in de context van recruitment: hoe worden diversiteit & inclusiviteit op de arbeidsmarkt beïnvloed door te toenemende aanwezigheid van zgn. AI systemen? Welke (toekomst)scenarios kunnen we onderscheiden en wat is de impact van deze scenarios op de werknemer?
In een eerste rondgang langs het veld blijkt dat, wanneer we het hebben over AI, oftewel geautomatiseerde patroonherkenning, worden er vaak utopische of distopische toekomstscenario’s geschetst over hoe het ofwel makkelijker/eerlijker wordt voor de mensen, ofwel hoe de mens gereduceerd zal worden tot een rader in een grote kapitalistische machine1.
Waar vaak aan voorbij wordt gegaan is dat er reeds een gigantische groep mensen is voor wie deze digitalisering van systemen een dagelijkse impact heeft. Hierbij hebben we het niet over de automatisering met bijvoorbeeld robotarmen in autofabrieken, of automatische postsortering. We hebben het over automatiseringswerkers die werken via platforms zoals Amazon’s Mechanical Turk.
De Guest Worker streeft naar erkenning voor deze gemarginaliseerde groep werkers, door deze werkers in de expositieruimte te halen en ze mede-auteur te maken van het werk.
Kristy Milland werkt als Mechanical Turk Worker, gefotografeerd door Sam Santos/George Pimentel Photography
Als we het hebben over AI in de context van recruitment, is het allereerst belangrijk om de infrastructuur van ‘AI’ enigszins duidelijk te hebben. De term AI wordt op veel verschillende manieren gebruikt, sterker nog, processen die vroeger als AI werden bestempeld, wordt tegenwoordig niet meer als dusdanig gezien. Zo werd tekstherkenning in postsorteercentra lang gezien als een belangrijk streven voor ‘AI’, tegenwoordig heet dit OCR – optical character recognition.
Tegenwoordig gaat het bij ‘AI’ vaak over automatische patroonherkenning door middel van gewogen netwerken2. En veel bedrijven zijn actief op dit gebied, om door middel van AI allerlei processen te automatiseren, om het zo eenvoudiger of eerlijker te maken. Deze bedrijven ontwikkelen algoritmes om patronen te leren uit gigantische bergen data. Echter, alvorens deze data geschikt is om in de algoritmes te stoppen, dient deze eerst gefilterd en geannoteerd te worden. Dit is mensenwerk.
Neem de Microsoft COCO dataset: dit is een verzameling van 330.000 afbeeldingen die geannoteerd zijn, en die veel wordt gebruikt om algoritmes objecten te laten onderscheiden. Op de website van COCO staan 13 mensen genoemd als ‘collaborators’. Zij werken voor bedrijven als Microsoft, Google en Facebook. Echter, kijken we naar de bijbehorende paper dan blijkt dat er 70.000 manuren(!) zitten in het annoteren van deze data. De mensen die dit werk hebben gedaan worden echter niet genoemd in dit lijstje.
Deze mensen (workers) werken via online platformen waar ze ‘micro-tasks’ uitvoeren. Ze werken aan kleine taken tegen een zeer kleine vergoeding per taak. Deze platformen zijn zo gemaakt dat onderlinge communicatie tussen de werkers onmogelijk is3.
Afbeelding uit Microsoft COCO: Common Objects in Context, die de interfaces voor Mechanical Turk toont.
Het boek Ghost Work van Mary L. Gray en Siddharth Suri gaat in op de precaire situatie waarin deze werkers werken. In hun review van het boek beschrijft Publisher Weekly hoe de anonimiteit de werkers op deze platforms enerzijds mogelijkheden biedt, terwijl ze anderzijds via het platform zelf de kans lopen gemarginaliseerd te worden:
“This revealing economic ethnography from anthropologist Gray and computer scientist Suri, both of whom work for Microsoft, sympathetically tells the stories of “ghost workers” who assist computers in replicating human cognition. These workers sign on through clearinghouses such as Amazon’s Mechanical Turk to perform tasks—writing subtitles for videos, identifying offensive content or animal pictures—remotely and for very low pay. Lack of transparency about the workers’ existence, the authors argue, gives the impression that artificial intelligence alone is powering ride sharing apps, internet searches, and other contemporary conveniences. Gray and Suri, who traveled to interview and observe ghost workers in the U.S. and India, explain that ghost workers are a vulnerable labor force; they have no rights as employees and little recourse if they are wrongfully fired or go unpaid. Yet the authors find that the anonymity and flexibility is a boon to some, such as female and disabled laborers who would otherwise face discrimination, and caregivers who need flexibility. To combat exploitation, Gray and Suri call for benefits for workers, unions, and new clearinghouses that allow for human communication between employer and employee. This compassionate and informative study is a must-read for anyone interested in the future of work.”
Douglas Rushkoff schrijft hierover:
“[…] The first step in building solidarity is simply knowing there are people out there.”
Dit is ons streven met Guest Worker: het zichtbaar maken van de werker in de black box en deze mede-auteur te maken van een kunstinstallatie.
Het online platform van Amazon, dat requesters koppelt aan workers heet Mechanical Turk. Dit is vernoemd naar de mechanische turk, een “schakende machine” gemaakt aan het einde van de 18e eeuw. Deze ‘machine’ bestond uit een pop van een arabier, die schaakte. Deze pop was duidelijk nep. Hierdoor leek het een machine die schaakte. Echter, in deze contraptie zat een mens verborgen die daadwerkelijk schaakte en de pop aanstuurde. Het is niet voor niets dat Amazon als ondertitel Artificial Artificial Intelligence heeft.
De kolonialistische eigenschappen van de mechanische turk, met zijn ‘exotische’ arabier, vinden we op een bepaalde manier ook terug in Amazon’s Mechanical Turk en vergelijkbare platforms: veel van de mensen die hier werken komen uit landen als India, Kenia, Vietnam of Venezuela, oftewel uit wat de Wereldbank de Global South noemt. Landen, vaak voormalige kolonies, waar om historische redenen arbeid goedkoper is dan in de ‘Global North’ (het ‘Westen’).
A 2017 paper found that Turkers earn a median wage of approximately US $2 per hour, and only 4 percent earned more than $7.25 per hour. – IEEE Spectrum
De website Kolostories toont verhalen van automatiseringswerkers.
De website Anti-Captcha is van dezelfde eigenaar als Kolostories, maar presenteert zijn werkers op een totaal andere manier.
Een bedrijf als KolotiBablo (vergelijkbaar met AMT) heeft een satelliet-project met de naam Kolostories. Hier beschrijven werkers welke mogelijkheden ze hebben gekregen door voor KolotiBablo te werken. Hetzelfde bedrijf is eigenaar van Anti-Captcha, een bedrijf dat op hun website reclame maakt met de inwisselbaarheid van hun werkers: met een druk op de knop kun je als bezoeker een werker ‘neerschieten’.
Enkele bedrijven tonen dus trots hoe goed ze mensen betalen gezien hun lokale context, terwijl in 2017 het modale inkomen slechts $2.- per uur was. Er zit een neo-koloniale bijsmaak aan het pochen met een salaris dat naar onze maatstaven extreem laag is. Krijgen deze mensen een goed salaris (gezien waar ze wonen) of zijn ze zwaar onderbetaald? Ze kunnen van dat salaris immers nooit op vliegvakantie of genieten van andere luxes die wij als heel gewoon beschouwen.
Ons doel met Guest Worker, een titel waarmee we engigszins refereren naar Ghost Work, om de gigantische groep werkers zichtbaar te maken die de huidige AI-toepassingen mogelijk maken. Zoals de mechanische turk in essentie een schakende persoon is, die is vermomd als robot, komt ons werk ook slechts ‘tot leven’ als een werker op Amazon Mechanical Turk voor ons aan het werk gaat.
De pen in de installatie is vergelijkbaar met de Rode Schoentjes in de Efteling. Een mechanisch object, dat door het inschakelen ervan tot leven komt. De menselijkheid komt naar voren door de manier van bewegen. Echter, waarbij de schoentjes volledige mechanisch zijn, wordt de pen in onze installatie direct (live) aangestuurd door een Mechanical Turk Worker.
We gebruiken dus Amazon Mechanical Turk om het gebruik ervan te bevragen.
We zijn hierbij geïnspireerd door de methodiek van Alvin Lucier’s I Am Sitting In A Room (1981). Dit is een belangrijk mediakunstwerk waarin Lucier een opname van zijn stem afspeelt in een ruimte, het geluid van het afspelen neemt hij weer op, wat hij vervolgens weer afspeelt, ad inf. Bij elke iteratie van afspelen & opnemen vervomt het geluid verder, totdat de karakteristieken van de kamer en de recorder de overhand nemen. Het uitgangspunt voor Guest Worker was de bijdrage die de werkers leveren aan het proces van AI: in het gros van de taken wordt iets wat analoog is (bijvoorbeeld een bonnetje) digitaal gemaakt door het te annoteren. Deze stap van analoog naar digitaal, zet onze installatie weer om naar iets analoogs. Wat weer nieuwe ‘voeding’ is een eindeloos circulaire proces. Waarin uiteindelijk niet de initiële input (wat slechts een vierkant was), maar de interactie tussen de opeenvolgende werkers de vormen bepalen.
De bezoekers van de exposities zijn hoofdzakelijk toeschouwer van dit haast mechanische process. Toch kan ook de bezoeker nog zijn/haar aanwezigheid laten blijken door dicht bij de scanner te komen4.
Op de achterkant van het werk tonen we de enige sporen die we hebben van deze werkers. Zoals een film een aftiteling heeft, zo geeft Guest Worker een overzicht van alle werkers die hebben bijgedragen aan de stop motion animatie.
Bij het ontwikkelen van het werk hebben we besloten om met de werkers op Mechanical Turk te werken. Zoals gezegd gebruiken we het platform om zijn gebruik te bevragen. Dit bracht echter wel een belangrijke verantwoordelijkheid met zich mee: we werken met mensen in precaire situaties en moeten op zijn minst zorgen dat ze goed betaald worden en geen schade ondervinden aan het werk dat ze voor ons doen. In lijn met de Fair Practice Code gaan we hierbij uit van een tarief dat naar onze maatstaven fatsoenlijk is, niet een dat in de Global South als fatsoenlijk wordt gezien.
De paradox is dus dat Amazon dus ook 20% boven op de fees van de werkers ontvangt. Amazon verdiend aan ons project. Het is uiteindelijk onze ambivalente positie ten aanzien van dergelijke platforms dat ons deed besluiten door te zetten: het gaat er niet om dat dit werk uitgebannen moet worden, het gaat er uiteindelijk om, om humane arbeidsomstandigheden te creëren.
Dit was desondanks af en toe een zoektocht. Zo ontvingen we gedurende het testen, alsook tijdens de exposities enkele mails van werkers die voor ons bezig waren geweest. Enkele keren uitte ze hun onvrede over de tijd die er voor de opdracht stond, gaven ze tips over de uitleg die we gaven, of lichtten ze toe dat ons automatische systeem beter afgesteld zou kunnen worden.
Message from [...] ([...]@gmail.com)
---------------------------------
Worker ID: A2R89RXGEVG05I
HIT Title: Trace the drawn line
HIT Description: Draw a line over the sketched line in the image
HIT ID: 3DA79LNS59663G9FKZBA2U92BDU3TH
If we could know there will be only one drawing to trace we would take longer but with a short timer we have to just go and hope the requester didn't put a two-minute timer by accident. But...of course...that pressure might have been intentional. We never know that either...:)
So, I did my best; thank you and best of luck with your research.
---------------------------------
Greetings from Amazon Mechanical Turk,
The message above was sent by an Amazon Mechanical Turk user.
Please review the message and respond to it as you see fit.
Sincerely,
Amazon Mechanical Turk
https://requester.mturk.comMessage from [...] ([...]@yahoo.com)
---------------------------------
Worker ID: A1ZT30BGR3266K
HIT Set ID: TURKERVIEW
HIT Title:
HIT Description:
Hi. I noticed that you may have blocked my account to prevent me from retaking your study. Account blocks hurt workers because Amazon uses them as a flag for nefarious activity. Too many account blocks and a worker can have their account suspended. Is it possible for you to remove the block from my account please??
Also, I didn't even get paid for taking your study. The timer on the HIT was so short that it expired before I had completed my tracing.
As a suggestion, you could look into using qualifications to restrict access to your HIT and extend the timer.
Thank you for your time.
---------------------------------
Greetings from Amazon Mechanical Turk,
The message above was sent by an Amazon Mechanical Turk user.
Please review the message and respond to it as you see fit.
Sincerely,
Amazon Mechanical Turk
https://requester.mturk.comDeze mails maakten (soms pijnlijk) duidelijk dat het werken met Mechanical Turk werkers, ondanks ons goede uitgangspunt, een proces van vallen en opstaan is. Ook maakt het duidelijk dat Artifical Artificial Intelligence inderdaad drijft op handmatig werk.
Het succes van de Flevopolder wordt toegedicht aan ingenieur Lely. Echter komt er steeds meer aandacht voor de duizenden handarbeiders die met spade greppels hebben gegraven. Zo ook met AI: wat lijkt als een automatisch proces aangestuurd door grootheden als Google, Facebook, Apple en Microsoft, drijft op een gigantische pool van precaire werkers.
Zoals de e-mail aantonen, is dit een fenomeen waarbij we met Guest Worker slechts het topje van de ijsberg zien. Het is dan ook ons plan om deze onderzoekslijn verder door te zetten met vervolgprojecten.
Voor een reflectie op techno utopisme en distopisme, zie oa. Howard P. Segal, of Ian I. Mitroff (Technology Run Amok, Palgrave Macmillan, 2019, p. 72). Een bekend voorbeeld in media-cultuur waarin een zwart scenario wordt geschetst is de serie Black Mirror.↩
Vaak neurale netwerken genoemd, een referentie naar neuronen in het brein die de inspiratie vormen voor deze systemen.↩
Er ontstaan wel alternatieve communicatiekanalen, zoals speciale fora, chatgroepen, Reddit-kanalen en websites waar deze werkers informatie uitwisselen.↩
Overigens kwam dit in de donkere ruimte bij Beyond Tomorrow minder goed uit de verf dan op latere plekken zoals bij het ECP congres in de Fokker Terminal of Re:connect in de Janskerk.↩